Trương Công Giai sinh ngày 19 tháng 11 năm 1665 tại làng Thiên Kiện, xã Thanh Tâm, huyện Thanh Liêm, tỉnh Hà Nam. Cha là Trương Chí Tường, một danh y nổi tiếng gần xa, dạy bảo, cho học hành chu tất. Trương Công Giai ra đời trong hoàn cảnh nhà Lê đã giành lại ngôi báu từ nhà Mạc. Năm 20 tuổi, ông thi đỗ Đệ tam giáp đồng tiến sĩ xuất thân, khoa thi năm Ất Sửu - 1685 đời vua Lê Hy Tông.[3]

Trong bảng vàng, tên đứng thứ nhất và ông là một trong 13 người đỗ tiến sĩ khi mới 20 tuổi. Theo các giai thoại còn lưu truyền đến ngày nay, Trương Công Giai lúc nhỏ được người đương thời gọi là thần đồng bởi học tài, thông kinh thấu chữ, ứng xử tài hoa.